没有安全的防线，连科学也不例外

No Safe Defense, Not Even Science

❦

我不会去问朋友们他们的童年——我缺乏社交上的好奇心——所以我也不知道这到底是不是一种多普遍的趋势：

在我认识的那些正努力向上成长为理性主义者、并且愿意主动谈起自己童年的人里，有一种令人惊讶的倾向：你会听到诸如“我家当年加入了一个邪教，而我不得不设法逃出来”，或者“我的一位家长有临床级精神疾病，而我不得不学会从他们的疯狂中筛出真实世界”之类的话。

相比之下，我自己在一个 Orthodox Jewish 家庭中长大的经历，似乎显得温和得多……但它达成了同样的结果：它打碎了我对周围那些人之理智状态的核心情感信任。

在这种核心的情感信任被打碎之前，你不会开始作为一个理性主义者成长。我很难把其中原因准确说成文字。也许，任何你所获得的不寻常技能——任何让你变得异常理性的东西——都要求你在别人都往右的时候偏偏往左。也许，如果这个世界在你看来依然像个理智正常的地方，那样做就太可怕了。

又或者，如果“常态”本身还没有把你吓得半死，你就不会愿意投入那种艰苦工作，去让自己变成额外加成的理智之人。

我知道，很多有志成为理性主义者的人，似乎都会在诸如冷冻保存或多世界这类事情上撞上路障。并不是说他们看不懂其中逻辑；他们看懂了逻辑，却会想：“当这东西现在看起来如此显然，可周围竟然没有任何人相信它时，它真的可能是真的吗？”

是的。欢迎来到这个把乙醇拿玉米来生产、而环保主义者反对核电的地球。很抱歉。

（另见：邪教式反邪教。如果你最终陷入一种紧张地寻求安慰的心理状态，这从来都不是好事——即便那是因为你将要相信某个听起来合乎逻辑、但会让别人用异样眼光看你的东西。）

那些对周围人的理智状态之信任已经被打碎的人，似乎更能根据怪异想法本身的是非来评估它们，而不会因为它们看起来古怪就感到紧张。把他们粘在原地的那层胶已经溶解了，于是他们可以朝某个方向走去，但愿是向前。

我曾把这叫作孤独的异议。真正的异议感，感觉不像是穿一身黑去上学；它更像是穿着小丑服去上学。

这就是一个人要成为那个孤身发声者所需的代价：他会说，“如果你真的知道谁会赢得选举，那你为什么不去 Intrade 预测市场上捡那笔免费的钱？” 而与此同时，周围所有人脑子里想的却是：“做个有主见的人、形成自己的看法是件好事，鞋子广告都这么告诉我了。”

也许在另一个世界，在某条人类更理智的 Everett 支线上，情况会有所不同……但在这个世界里，我从未见过谁在没有与其群体的智慧发生一次深刻的情感决裂之前，就开始成长为一个理性主义者。

也许在另一个世界里，情况会不同。也许不会。我并不确定，人类是否真的能够在信任与思考同时进行的情况下运作。

从前，我曾信任过某样东西。

18 岁的 Eliezer 信任 Science。

18 岁的 Eliezer 尽责地承认，科学这一社会过程是有缺陷的。18 岁的 Eliezer 尽责地承认，学术界进展缓慢、资源分配失当、偏袒自己人，还会苛待那些珍贵的异端者。

把失败归咎于人没有达到你的理想，这种做法的方便之处就在于：你不必去质疑理想本身。

可又有谁会愚蠢到去质疑“应当由实验方法来裁决哪个假说胜出”这一点呢？

曾经欺骗 18 岁 Eliezer 的原因之一，是他有一个普遍问题：他厌恶那些听起来像白痴说过的话的想法。18 岁的 Eliezer 见过很多人在质疑 Science 自身的理想，而无一例外，他们全都站在黑暗面。质疑 Science 理想的人，总是在向你兜售蛇油，或者试图保护他们最爱的某种愚蠢免受批评，或者试图把个人的放弃伪装成一种深邃智慧式的徒劳接受。

如果那是任何另一个已经存在了几百年的理想，年轻的 Eliezer 大概都会看着它说：“我想知道这东西究竟对不对，以及有没有办法做得更好。” 但 Science 的理想不一样。Science 是主理念，是那个让你得以改变各种理念的理念。你当然可以质疑它，但你本来应该质疑它，然后接受它，而不是真的说出：“等等！这东西是错的！”

因此，曾几何时，当我想出了一个愚蠢主意时，只要我确保它有一个“新预测”，并宣称我希望通过实验来检验自己的想法，我就会觉得自己是在以一种有德行的方式行事。我以为自己已经做了所有自己有义务去做的事。

于是我以为自己是安全的——并不是安全于某种具体的外部威胁，而是在某种更深层的意义上安全，就像一个信任父母、并且已经遵守了父母所有规则的孩子。

我早已不再信任自己家人的理智，也不再信任学校老师的理智。其他孩子的智力水平，也不足以与我在书中所能拥有的对话相竞争。但你看，我信任书。我信任 Richard Feynman 告诉我要去做的事；我相信只要那么做，我就会安全。我从未把这些话说出口，但我内心就是这样感觉的。

当 23 岁的 Eliezer 意识到：那个愚蠢理论究竟有多么愚蠢——以及传统理性并没有把他从中拯救出来——而且 Science 完全会接受他拿十年时间去检验那个愚蠢想法，只要他事后承认它是错的……

……嗯，我不打算说那是什么巨大的情感震荡。我其实并不偏爱那种戏剧性。只是有一件事变得显而易见：我一直都很蠢。

这就是我试图在你身上打碎的那种信任。你并不安全。永远都不安全。

连 Science 也救不了你。Science 的理想诞生于几个世纪以前，那时人们对概率论和认知偏差还一无所知。Science 对你的要求太少了，它太轻易地赐福于你的善意，它还不够严格，它只提出一个普通科学家能够做到的那些戒律，它把缓慢当成生活事实来接受。

所以，别以为只要你遵守了 Science 的规则，就能让自己的推理变得无可指摘。

不存在任何已知程序，只要你照着走，就能让自己的推理变得无可指摘。

不存在任何已知戒律集合，只要你一一满足，就能保证自己不会是个傻瓜。

不存在任何你只要尽力去遵守，就能知道自己因此免于批评的“推理道德”。

不，哪怕你转向贝叶斯技艺（Bayescraft）也不行。那玩意儿更难用，而且你永远也无法确定自己有没有用对。

贝叶斯技艺这门学科，比 Science 这门学科年轻得多。你找不到教科书，找不到年迈的导师，找不到成功与失败的历史记载，也找不到那些固定明确的规则。你必须去学习认知偏差、概率论、进化心理学、社会心理学以及其他认知科学，还要学习人工智能——然后你得自己想通，如何把所有这些知识应用到“修正你自己”这个案例上，因为这些东西还没有写进教材里。

你并不知道自己的心智真正是在做什么。他们几乎每周都会发现一种新的认知偏差，而你永远无法确定自己究竟已经纠正了它，还是纠正过头了。

形式化数学根本无法直接应用。它并不像普通怀疑者 John Q. Unbeliever 所想的那样那么容易崩塌，但你也永远无法真正确定那些基础究竟来自何处。你不知道宇宙为什么足够简单，以至于可以被理解；你也不知道为什么任何先验分布居然会对它有效。你甚至不知道自己的先验到底是什么，更别说它们是否靠谱。

Science 的问题之一在于：它太模糊了，以至于根本吓不到你。“观念应当通过实验来检验。” 这怎么可能出错呢？

另一方面，如果一整套概率论数学摆在你面前，而且更糟的是，你知道自己实际上根本用不了它，那么就会变得很清楚：你正在尝试做一件困难的事，而你大概率正把它做错。

所以，你不能信任。

而且，我上面所说的这一切，都不足以真正打碎你的信任。那件事只会发生在：你第一次真正因为遵循了那些规则——而不是因为违反了它们——而掉进灾难里的时候。

18 岁的 Eliezer 当时已经有这样一个观念：你当然被允许质疑 Science。为什么，科学方法本身怎么可能不接受质疑呢！难道我们不都是优秀的理性主义者吗？难道我们不是被允许去质疑一切吗？

18 岁的 Eliezer 在情感上真正不相信的，是这样一件事竟然真的会在现实生活中发生：你完全按照 Science 去做，却仍然惨败收场。

哦，当然，他嘴上会说那是可能的。18 岁的 Eliezer 会尽责地承认出错的可能性，说一句：“我也可能错，但……”

但他并不认为失败会在——你知道的——现实生活里发生。你本来应该去寻找缺陷，而不是真的找到它们。

而这种情感上的差异，实在是一件极难用语言做到的事；我担心自己根本没办法真正警告到你。

你的信任不会真正崩塌，直到你把自己在这里和在其他书里学到的一切都用上，把它们推进到你所能达到的最远处，然后发现连这一切也仍然辜负了你——发现你依旧是个傻瓜，而从没有人警告过你这一点——发现你所接受的指导把最重要的部分都漏掉了——发现你所追随的一些最珍贵理想，竟然把你引向了错误方向——

——而与此同时，如果你仍然有某种必须守护之物，以至于你必须继续前进，并且不能只是辞职不干、聪明地承认理性的局限——

——那么你才准备好真正开始自己的理性主义者之旅。去承担全部责任，去在没有任何值得信赖防线的情况下生活，并去锻造一种比你从前学过的更高层次之技艺。

没有人会在自己的父母辜负了自己、自己的神明已经死去、自己的工具在手中碎裂之前，真正开始寻找那条道路。

附言：在审阅这篇文章草稿时，我发现其中有一处相当不可原谅的推理缺陷，而且它实际上会影响到这里得出的一个结论。我决定保留它。以防你以为，照着我的建议去做就会让你变得安全；或者以为你本来就只该寻找缺陷，而不该真的找到任何缺陷。

当然，如果你太过拼命地想找一个缺陷，结果找到一个其实并不是真缺陷的“缺陷”，然后死抓着它不放，好让自己安心于“你看我多有批判精神”，那你只会比以前更糟……

真正困难的，是在不确定中活着——在直觉深处知道确实存在缺陷，它们很严重，而你还没有找到它们。